Ruijian | Tracer des limites éthiques pour les « amis de l’IA »

De nombreux parents et enseignants ont découvert que l’IA est progressivement devenue le nouveau « compagnon de jeu » de leurs enfants, les accompagnant pour étudier, jouer et discuter. Les « 100 000 pourquoi » auxquels les parents ne peuvent résister ne sont pas un problème avec l’IA. Mais bientôt, le chat AI a rencontré des problèmes.

Une fillette de 10 ans joue à un jeu de rôle avec un logiciel de chat IA, jouant tantôt le rôle d'une « héroïne vicieuse », tantôt d'un « amoureux infidèle ». Les conversations contiennent beaucoup de contenu pornographique soft, ce qui intrigue les parents. trembler. Il y a aussi des enfants qui considèrent l'IA comme un « petit-ami (petite-amie) électronique » et s'adonnent à discuter tous les jours, même jusqu'à deux heures du milieu de la nuit.

Ce type de compagnonnage technologique est-il un réconfort bien intentionné ou un risque caché ? L’IA possède-t-elle des capacités de jugement éthique claires dans de telles interactions ? Comment devrions-nous fixer des limites de sécurité pour l’utilisation de l’IA par les mineurs ?

Il est indéniable que les enfants ont du mal à résister au charme des outils de chat IA. Selon le « Youth Blue Book : China Minors' Internet Usage Report [2024] », les adolescents sont très conscients de l'IA et 45,1 % des mineurs ont utilisé des produits d'IA. L'érudition de l'outil...
[Courte citation de 8% de l'article original]